What Generation Knows: Unlocking Fine-Grained Understanding in Unified Multimodal Models
生成侧知多少：解锁统一多模态模型中的细粒度理解
🧭 多模态生成与理解协同
Zhejiang University · The University of Hong Kong · The Chinese University of Hong Kong, Shenzhen · Shenzhen Loop Area Institute
揭示统一多模态模型中生成侧表示对细粒度视觉理解的互补价值，提出 GAFU 框架压缩生成侧表示为 G tokens 供理解通路检索，显著提升细粒度任务性能
📌 工作参考价值（4 点）
- 在电商多模态商品理解中，可尝试提取统一多模态模型生成侧（如扩散前向或自回归解码中间层）的视觉表示，与理解侧表示融合或作为额外特征，改善商品颜色、材质、局部属性等细粒度识别；尤其适合对图像细微差异敏感的场景。
- GAFU 将生成侧视觉表示压缩为少量 G tokens 再供理解通路做 task-conditioned retrieval，这一思路可借鉴到多模态特征工程：用可学习压缩 token 保留关键细节，降低计算开销，并支持按任务动态选取相关特征。
- 实验表明生成侧表示对细粒度语义变化更敏感且能捕获理解侧遗漏的变化，说明在搜索/推荐的多模态相关性排序中，可引入生成侧表示作为辅助信号，尤其在 title/图片差异、spatial relation 等需要精细匹配的任务上可能带来增益。
- 该工作采用后训练（post-training）方式而非重新预训练，适合在已有模型基础上低成本注入细粒度理解能力，对业务中多模态模型升级有一定参考。